TikTok als Brandbeschleuniger?

Ein Monitoring potentiell radikalisierender Accounts

Nader Hotait
nader.hotait@hu-berlin.de

Humboldt-Universität zu Berlin (BIM)


nhotait@mail.uni-mannheim.de

Universität Mannheim (CDSS)

29. Juli 2023

Hintergrund und Ziele

TikTok und Radikalisierung

  • (Umfangreiches) radikales Material vorhanden[1], [2]
  • Algorithmen und extremistische Rabbit Holes[3]
  • Junge und aktive Nutzerschaft[4]
  • Mögl. Effekt des Konsums auf Radikalisierung[5], [6]
  • Ideologieverstärkung durch Filterblasen[7]–[10]
  • Höhere Vulnerabilität bei jüngeren Menschen[11]

→ Wie entfalten sich diese Dynamiken auf TikTok?
→ Mixed-Methods Studie von aktuell 53 TikTok Accounts

Daten

  • Rad Videos weitaus länger
  • Rad Akteure leicht aktiver
Stichprobe
list accounts videos average videos average duration
rad 19 3181 167 93s (~1.55 minutes)
regular 34 4581 135 37s
all 53 7762 146 60s (~1 minutes)

→ Aktuell: Können wir die Viralität von Inhalten dekonstruieren?

Bisherige Befunde - Radikale Viralität?

Reichweite

  • Regulärer muslimische Accounts werden im Durchschnitt weitaus öfter gesichtet
  • Potentiell radikalisierende Accounts dennoch häufig genug gesichtet?
  • Gibt es technische Gründe? Wie wird der Algorithmus stimuliert?
Likes und Views
list views likes average views average likes
rad 202747971 17253876 63737 5424
regular 1098820312 86043112 239865 18783
all 1301568283 103296988 167685 13308

Videolänge und Likes

Videolänge, Reichweite und Likes

Aktivitätsmuster

“Spontane Viralität” ? (Adnan Omar)

“Systematische Viralität” ? (Muslim Interaktiv)

Ausblick

Qualitativ

  • Rekonstruktion von Aktivitätsmustern und ihre Interaktion mit dem Algorithmus
  • Herausarbeitung von Substanz, Prevalänz und Dynamik radikaler Inhalt
    • Radikalismus Indikatoren und ihre (ambivalente/ambiguöse) Entfaltung
    • Referierte Themen, Akteure und Netzwerke

Quantitativ

  • Produzent:innen Perspektive vs Konsument:innen Perspektive
    • Prävalenz unter Konstument:innen
    • So what?: Wie problematisch ist die ganze Geschichte?

Relevanz für Fachpraxis?

Vielen Dank!

Literatur

[1]
G. Weimann und N. Masri, „Research Note: Spreading Hate on TikTok“, Studies in Conflict & Terrorism, Bd. 0, Nr. 0, S. 1–14, 2020, doi: 10.1080/1057610X.2020.1780027.
[2]
F. Hartwig und A. Hänig, Monitoring der Peripherie des religiös begründeten Extremismus (PrE). Berlin: Bundeszentrale für politische Bildung, 2021.
[3]
O. Little und A. Richards, „TikTok’s algorithm leads users from transphobic videos to far-right rabbit holes“, Media Matters for America, Okt. 2021, Verfügbar unter: https://www.mediamatters.org/tiktok/tiktoks-algorithm-leads-users-transphobic-videos-far-right-rabbit-holes
[4]
D. Ruby, „TikTok User Statistics (2022): How many TikTok Users Are There?“, Demand Sage, 2022, Verfügbar unter: https://www.demandsage.com/tiktok-user-statistics/
[5]
G. Hassan u. a., „Exposure to Extremist Online Content Could Lead to Violent Radicalization:A Systematic Review of Empirical Evidence“, International Journal of Developmental Science, Bd. 12, S. 71–88, 2018, doi: 10.3233/DEV-170233.
[6]
M. Wolfowicz, B. Hasisi, und D. Weisburd, „What are the effects of different elements of media on radicalization outcomes? A systematic review“, Campbell Systematic Reviews, Bd. 18, Nr. 2, S. e1244, 2022, doi: 10.1002/cl2.1244.
[7]
E. Dubois und G. Blank, „The echo chamber is overstated: the moderating effect of political interest and diverse media“, Information, Communication & Society, Bd. 21, Nr. 5, S. 729–745, 2018, doi: 10.1080/1369118X.2018.1428656.
[8]
A. Reed, J. Whittaker, F. Votta, und S. Looney, „Radical Filter Bubbles: Social Media Personalisation Algorithms and Extremist Content“, Global Research Network on Terrorism and Technology, Nr. 8, 2019.
[9]
J. Whittaker, S. Looney, A. Reed, und F. Votta, „Recommender systems and the amplification of extremist content“, Internet Policy Review, Bd. 10, Nr. 2, 2021, doi: 10.14763/2021.2.1565.
[10]
M. Wolfowicz, D. Weisburd, und B. Hasisi, „Examining the interactive effects of the filter bubble and the echo chamber on radicalization“, Journal of Experimental Criminology, 2021, doi: 10.1007/s11292-021-09471-0.
[11]
J. Emmelkamp, J. J. Asscher, I. B. Wissink, und G. J. J. M. Stams, „Risk factors for (violent) radicalization in juveniles: A multilevel meta-analysis“, Aggression and Violent Behavior, Bd. 55, S. 101489, 2020, doi: https://doi.org/10.1016/j.avb.2020.101489.